Ý niệm về "khoa học thần bí" nổi lên từ thế kỷ 16.[4] Thuật ngữ này thường bao hàm ba môn là chiêm tinh học, thuật giả kim và phép thuật tự nhiên, hay có khi người ta tách riêng các hình thức bói toán ra khỏi phép thuật tự nhiên.[4] Theo nhà sử học tôn giáo Wouter Hanegraaff, các môn này được nhóm lại với nhau vì "chúng đều có mục đích tìm hiểu một cách có hệ thống về tự nhiên và các tiến trình tự nhiên, xây dựng khung lý thuyết dựa chủ yếu trên các niềm tin vào bản chất, tinh thần hoặc sức mạnh thần bí."[4] Mặc dù có sự chồng chéo giữa các môn tri thức này nhưng chúng vẫn mang tính độc lập và có những trường hợp có người tin theo môn này nhưng lại phủ nhận môn kia.[4]

Vào thời kỳ Khai sáng, thuật ngữ "thần bí học" dần bị xem là không phù hợp với khái niệm "khoa học".[4] Từ thời điểm này, "thần bí học" đứng bên kia chiến tuyến với khoa học chính thống.[4]

Trong cuốn sách Văn hóa nguyên thủy năm 1871, nhà nhân chủng học Edward Tylor dùng thuật ngữ "thần bí học" như một từ đồng nghĩa với "ma thuật".[5]